レッスン5は、COMP5511における転換点です。古典的なコンピューティングの決定論的ロジックや、初期の分類モデルにおける教師あり学習の確実性から離れ、次の世界へと進みます。 生成AIの確率論的核心。このセッションでは、現代のAIモデルが「事実」を出力するのではなく、 確率分布を出力する理由を探ります。大規模言語モデルが詩を書き、拡散モデルがノイズから画像を描き出す仕組みを解き明かしていきます。

1. パラダイムシフト：論理から確率へ

• IF-THENを超えて：硬直したルールから流動的な統計的尤度への移行。
• 確実性の終焉：GenAIの結果がなぜ 非決定的 なのかを理解する。
• ツールとしての確率：「GenAI時代」が 不確実性を特徴 として捉え、修正すべきバグではなく創造性の源泉とみなす方法。

2. 創造の確率論的エンジン

生成AIは、高次元の確率空間からのサンプリングに依存しています。テキスト生成でも画像生成でも、モデルは不確実性を航行しながら新規性を生み出します：

• 大規模言語モデル（LLM）：次のトークンを単一の選択肢としてではなく、 可能性の分布として予測する。
• 拡散モデル：混沌とした ガウスノイズとして予測する。
• サンプリングプロセス：ランダム性を活用して、反復的で「機械的」な出力を防ぐ方法。

3. 予測不可能な世界におけるエージェント

自律エージェントは、「オープンワールド」を航行しなければなりません。そこでは、すべての行動に未知のリスクと報酬が伴います。